No existe información sobre los primeros años de Graul, sus estudios musicales e incluso no existe certeza sobre su año de nacimiento. La información más antigua disponible sobre la carrera de Grauel es una mención de él trabajando junto a su suegro, Johann Christian Hertel , en la corte del ducado de Mecklenburg-Strelitz en Neustrelitz en el momento de la disolución de la Hofkapelle en 1753, cuando era obligados a buscar empleo en otro lugar.

Edición discográfica con el "Concierto para Cello" de Markus Heinrich Graul

Después de dejar Neustrelitz, Graul fue empleado por Johann Nepomuk Gotthard Graf von Schaffgotsch en Berlín. Comenzó a trabajar en la corte prusiana de Berlín el 1 de diciembre de 1763, donde permaneció hasta su muerte en 1799. La mayoría de los relatos contemporáneos sobre Graul datan de su época en Berlín. En particular, Charles Burney , después de su visita a Berlín en 1772, escribió: "M. Grauel, un violonchelista de la banda del Rey, tocó un concierto; no era más que música ordinaria; sin embargo, estaba bien ejecutado, aunque a la antigua, con la mano debajo del arco". Por el contrario, su habilidad compositiva fue mencionada favorablemente por dos comentaristas contemporáneos, Ernst Ludwig Gerber: "Se dice que es un intérprete y compositor hábil y competente para su instrumento"  y Johann Adam Hiller: "[Grauel ] toca muy bien su instrumento y le da hermosos conciertos y solos". 

Como la mayoría de los compositores que trabajaron en Berlín durante la segunda mitad del siglo XVIII, las composiciones de Graul son muy representativas del Empfindsamer Stil y conservan muchas características del estilo compositivo barroco. Solo hay seis obras sobrevivientes que llevan el nombre de Graul y se cree que muchas de sus piezas se perdieron, y varias otras probablemente fueron atribuidas erróneamente. Parece que surgió cierta confusión debido a la similitud del nombre 'Graul' con sus contemporáneos Johann Gottlieb y Karl Heinrich Graun, también músicos de la corte de Berlín. Las diversas grafías del nombre de Graul han causado más confusión, más comúnmente "Grauel", pero también "Gravel".